Tháng 4 năm 1975, ông tham gia tiếp nhận sự đầu hàng của nội các Sài Gòn do Tổng thống Việt Nam Cộng hòa Dương Văn Minh đứng đầu[1]. Sau đó, ông được phân công giữ chức vụ Phó Chủ tịch Thường trực Ủy ban Quân quản Sài Gòn - Gia Định, phụ trách an ninh, nội chính, trực tiếp phụ trách đoàn cán bộ tiếp quản các cơ quan chính quyền của Việt Nam Cộng hòa.

Tháng 2 năm 1976, ông giữ chức vụ Phó trưởng ban đại diện Bộ Nội vụ (nay là Bộ Công an) tại miền Nam. Ngày 18 tháng 9 năm 1976, Thủ tướng Phạm Văn Đồng ký quyết định bổ nhiệm ông giữ chức Thứ trưởng.[1] Trên cương vị này, ông là người chỉ huy kế hoạch phản gián CM12

Ông được bầu là Ủy viên Dự khuyết Ban Chấp hành Trung ương Đảng Cộng sản Việt Nam tại Đại hội Đảng toàn quốc lần thứ IV của Đảng Cộng sản Việt Nam tháng 12 năm 1976. Năm 1978, ông được bầu làm Ủy viên chính thức. Ông tái đắc cử ở 2 khóa tiếp theo V và VI.

Từ năm 1986 đến khi nghỉ hưu vào năm 1991, đồng chí Cao Đăng Chiếm là Thứ trưởng Thường trực Bộ Nội vụ. Năm 1989, ông được Nhà nước phong hàm Thượng tướng An ninh nhân dân không qua các cấp bậc trung gian[2].

Ông qua đời ngày 10 tháng 12 năm 2007 tại Bệnh viện 30 tháng 4, Bộ Công an, hưởng thọ 87 tuổi.[3]